03화 Transformer의 자녀들... | 매거진에 참여하세요

BERT와 GPT는 Transformer와 무슨 연관이 있을까? | 자연어처리 역사의 한 획을 그은 트랜스포머(Transformer)에서 BERT와 GPT라는 두 개의 서로다른 언어모델이 탄생하였습니다. BERT와 GPT는 둘다 트렌스포머에서 파생된 언어모델로 트랜스포머를 같은 어머니로 두고 있는 형제라고 할 수 있습니다. 이 두 모델은 서로 다른 강점을 가지고 각자의 영역에서 준수한 성능을 자랑하며 SoTA 모델로 인정받

출처 : https://brunch.co.kr/@harryban0917/280